Wer in Frankreich finanzielle Unterstützung von der Caisse Nationale d’Allocations Familiales (CAF) bekommt, erhält nicht nur Geld, sondern auch einen persönlichen Risikowert dazu. Die „Familienausgleichskasse“ zahlt etwa Zulagen oder Wohngeld an einkommensschwache Familien. Wo die CAF Betrug oder Überzahlungen vermutet, kann sie die Empfangenden besonders kontrollieren oder überprüfen. Doch die Anhaltspunkte stammen nicht nur von Menschen, sondern vor allem aus einer Software.
Die französische NGO La Quadrature du Net (LQDN) hat durch Informationsfreiheitsanfragen Zugang zum Quellcode dieser Software erhalten und sie analysiert. Die Organisation zeigt damit, welche Faktoren zu einem vermeintlich erhöhten Risiko für unberechtigte Zahlungen führen und wie dadurch bestimmte Gruppen diskriminiert werden.
Faktoren, die den „Verdächtigkeitswert“ steigen lassen, sind demnach etwa ein geringes Einkommen, Arbeitslosigkeit oder instabile Beschäftigungsverhältnisse. Aber auch wer in einer ungünstigen Nachbarschaft lebt oder einen großen Teil des Einkommens für Miete ausgibt, muss mit einem höheren Wert rechnen. „Der Gipfel des Zynismus“, wie LQDN schreibt: „Der Algorithmus zielt bewusst auf Menschen mit Behinderungen ab.“ Wenn jemand eine Beihilfe für Erwachsene mit Behinderungen beziehe und gleichzeitig arbeite, wirke sich das „am stärksten auf die Punktzahl des Empfängers“ aus.
Doppelte Strafe
LQDN kritisiert auch die „Doppel-Bestrafung“, die dem System zugrunde liege. Als auffällig würden gerade diejenigen markiert, die sowieso schon Probleme hätten. Sie starten aufgrund ihrer Lebensumstände unabhängig von ihrem aktuellen Verhalten bereits mit einem höheren Wert, während gut situierten Personen anfangs kein Risiko zugeschrieben wird.
Die Software ist jedoch nicht die aktuelle Version, sondern wurde von 2014 bis 2018 genutzt. Die derzeitige Variante bekam LQDN nicht. Die Organisation geht davon aus, dass sich die Verantwortlichen im Zweifel damit verteidigen, dass die neue Version weniger diskriminierend sei. LQDN aber findet: „Es kann kein Modell des Algorithmus geben, das nicht auf die am stärksten Benachteiligten abzielt. Und damit auch auf diejenigen, die von der Norm abweichen, die seine Entwickler definiert haben.“
Die Analyse ist Teil einer Reihe von LQDN, die sich automatisierten Verarbeitungen im Sozialsystem Frankreichs widmet. LQDN habe das Thema zur Priorität des kommenden Jahres gemacht und will ähnliche Systeme genau untersuchen, etwa im Gesundheitswesen oder bei der Rentenversicherung.
Doch Frankreich ist längst nicht das einzige Land mit problematischen (teil-)automatisierten, staatlichen Entscheidungssystemen: In den Niederlanden hatte beispielsweise die sogenannte Kindergeldaffäre gezeigt, wie mit diskriminierenden Kriterien betriebene Systeme viele Familien finanziell fast ruinierten. Die dortige Regierung musste schließlich ein Bußgeld in Millionenhöhe zahlen.
Es gibt ja das Sprichwort: Haste was, biste was. Haste nix, biste nix (und wirst auch nix, oder höchst selten was).
Genau das wird, wie im Artikel beschrieben, zementiert, und das natürlich schön digital und wie gehabt unmenschlich.
Und das ist noch nicht alles:
Denn warum ist es immer noch so, dass Bildung in erster Linie vom Sozialstatus und dem Geldbeutel der Eltern abhängt?
Und warum führen so ziemlich alle Sender im Fernsehen zu 90 % Interviews mit Studenten durch, während Leute mit Real- oder Hauptschulabschluss so gut wie nie ausgewählt und gefragt werden?
„Und warum führen so ziemlich alle Sender im Fernsehen zu 90 % Interviews mit Studenten durch, während Leute mit Real- oder Hauptschulabschluss so gut wie nie ausgewählt und gefragt werden?“
Das duerfte sich trivial damit begruenden, wer sich wie zu welchen Themen mit Meinung exponiert. Mal abgesehen davon, dass es auch Leute mit Abi gibt, die nicht studiert haben.
Klar, dazu gehoert ausser Interesse auch Zeit, aber in dem meisten mir so bekannten Initiativen zu vielen Themen sind informelle Sprech- und Leitungspositionen durch Leute besetzt, die das koennen und wollen. Und das sind oft Leute, die wegen genau dieser Eigenschaften studiert haben, wenn auch nicht unbedingt auf einfachem Wege oder mit Abschluss.
Anonymous: Missverständnis. Ich meine nicht die Interviewer, sondern die, die z. B. auf der Straße oder für bestimmte Sendungen ausgewählt werden. Hab mich zugegebenermaßen nicht klar ausgedrückt.
Das hatte ich auch so verstanden.
Wie gesagt: diese Leute werden ja nicht ausgewaehlt und muessen das dann machen, diese Leute muessen auch bereit, und vorzugsweise befaehigt, sein, sich in einem Medium mit ihrer Meinung zu exponieren. Darueber hinaus macht Volljaehrigkeit vieles viel einfacher.
Wieso sollen Leute mit Abitur bzw. Studium „vorzugsweise befaehigt“ sein, sich in Medien zu exponieren (bzw. sich auszudrücken)? Da wäre etwas mehr Unvoreingenommenheit seitens der Medien/Interviewer angebracht. Mit Volljährigkeit hat das nichts zu tun.
Klar, gezwungen wird niemand zu etwas, aber Medien sollten sich, wenn es darum geht, Meinungen zu bestimmten Themen einzuholen, allen Gesellschaftsschichten zuwenden und eben die Chance geben, sich „zu exponieren“, ganz gleich, welchen Bildungsabschluß die betreffende Person hat. Das wird in vielen Fernsehsendungen nach meiner Beobachtung sehr selten so umgesetzt. Ob der oder die Betreffende das dann wahrnimmt, ist dann seine oder ihre Sache.
Es hilft sehr, vor einer Kamera oder Publikum komfortabel zu sein und eloquent formulieren zu koennen. Das lernt, uebt und strebt man je nach Studiengang an, eher weniger in einer Ausbildung nach Haupt- oder Realschulabschluss. Das hat nichts mit Voreingenommenheit zu tun, das ist schlicht real, ganz ohne Wertung. Sich exponieren muss man wollen, denn man macht sich uU zum Ziel oder zum Deppen, dazu hilft ein entsprechendes Umfeld.
Volljaehrigkeit macht die Publikation von Material wesentlich einfacher, denn der Interviewte ist vollstaendig zustimmungsfaehig.
Kann es sein, dass Sie sehr wenig Erfahrung mit oeffentlichen Medienauftritten haben?
Ergaenzend: frueher[tm] hat man sowas als Studienferner ueber Engagement in Gewerkschaften, Vereinen oder Parteien und deren Jugendorganisationen erworben. Das ist signifikant weniger geworden, zT weil die Strukturen alles daran setzen, dass die dafuer notwendige Zeit und Energie anderweitig benoetigt oder jedenfalls verwendet wird.
Das ergibt durchaus ein Repraesentationsungleichgewicht, das ist ja das Ziel, und Medien sollten das transparent machen, d’accord.
Zitat: „Die dortige Regierung musste schließlich ein Bußgeld in Millionenhöhe zahlen.“
Musste die Regierung bezahlen? Wirklich? Wie viel hat dann jeder einzelne Minister bezahlt? War es nicht eher der Steuerzahler? Wenn letzteres: Könnte man das dann so formulieren, dass es auf diesen Fakt passt?
Gerne auch auf „RoboDebt“ in Australien verlinken. https://en.wikipedia.org/wiki/Robodebt_scheme
Die konservativen Politiker, die das beschlossen hatten, sitzen dort trotz tränenreicher Entschuldigung bei den Millionen Opfern im Knast. Recht so.
Da man oben nichts mehr eintragen kann, hier noch eine Antwort auf:
Anonymous sagt: 5. Dezember 2023 um 16:22 Uhr:
1) Wenn Sie mit „Medienauftritten“ Straßeninterviews meinen – ja, hatte ich zweimal. Aber darum geht es nicht. Die Zustimmungsfähigkeit ist aus meiner Sicht zweitrangig (SchülerInnen, die für eine Sendung in oder vor einer Schule gefragt werden, sind auch nicht immer volljährig).
2) Ein Abi bzw. ein Studium ist keine Garantie dafür, sich besser ausdrücken zu können als eine Person, die diese Abschlüsse nicht hat. (da muss ich mich nur an der Uni hier umschauen …).
Ausserdem bedingt „Eloquenz“ noch lange keinen argumentativen Gehalt bestimmter Aussagen.
3) Wenn ein Sender/ein Interviewer spontan Personen befragt oder für Sendungen aussucht, weiss er nicht, ob diese Person Abi hat oder studiert. Hätte die Person das nicht und würde das Medium im Nachhinein sagen: Ach nee, doch lieber kein Interview, weil …, dann wäre es eine echte Diskriminierung. Langfristig entstünde hier das vom „zweiten Anonmyous“ treffend benannte „Repräsentationsungleichgewicht“. Und das ist kritikwürdig.